KronQ: LLM Quantization via Kronecker-Factored Hessian
KronQ：基于Kronecker分解的LLM量化框架
🧭 LLM 后训练量化 · Kronecker 分解 ★ 深度解读
University of Southern California · Yale University
引入梯度协方差实现双向非相干处理与混合精度分配，显著提升2-bit量化性能
📌 工作参考价值（4 点）
- 量化推荐系统中的Transformer层时，额外引入梯度协方差HG可弥补仅使用激活协方差HX的不足，极大改善低比特（特别是2-bit）下模型崩溃问题。
- 双向非相干预处理（对输入和输出维度都应用随机Hadamard旋转+对角缩放）能平滑权重幅度方差，可应用于广告/推荐模型的注意力层或MLP层，减少量化误差。
- 基于tr(HG)·tr(HX)的混合精度分配方法能够区分共享输入的Q/K/V投影，为不同子层分配合适位宽，可直接用于推荐模型的多层精度调优。
- 方法计算高效：HG仅需一次反向传播，且量化更新中HG代数抵消，不增加推理开销，适合低延迟在线服务。